Motivated by the fragility of neural network (NN) controllers in safety-critical applications, we present a data-driven framework for verifying the risk of stochastic dynamical systems with NN controllers. Given a stochastic control system, an NN controller, and a specification equipped with a notion of trace robustness (e.g., constraint functions or signal temporal logic), we collect trajectories from the system that may or may not satisfy the specification. In particular, each of the trajectories produces a robustness value that indicates how well (severely) the specification is satisfied (violated). We then compute risk metrics over these robustness values to estimate the risk that the NN controller will not satisfy the specification. We are further interested in quantifying the difference in risk between two systems, and we show how the risk estimated from a nominal system can provide an upper bound the risk of a perturbed version of the system. In particular, the tightness of this bound depends on the closeness of the systems in terms of the closeness of their system trajectories. For Lipschitz continuous and incrementally input-to-state stable systems, we show how to exactly quantify system closeness with varying degrees of conservatism, while we estimate system closeness for more general systems from data in our experiments. We demonstrate our risk verification approach on two case studies, an underwater vehicle and an F1/10 autonomous car.

由于机器学习技术在新域中被广泛采用，特别是在诸如自主车辆的安全关键系统中，这是提供准确的输出不确定性估计至关重要。因此，已经提出了许多方法来校准神经网络以准确估计错误分类的可能性。但是，虽然这些方法实现了低校准误差，但有空间以进一步改进，尤其是在大维设置（如想象成）中。在本文中，我们介绍了一个名为Hoki的校准算法，它通过将随机转换应用于神经网络编程来工作。我们为基于应用转换后观察到的标签预测变化的数量提供了足够的条件。我们在多个数据集上执行实验，并表明所提出的方法通常优于多个数据集和模型的最先进的校准算法，尤其是在充满挑战的ImageNet数据集上。最后，Hoki也是可扩展的，因为它需要可比较的执行时间到温度缩放的执行时间。

In this paper, we perform an exhaustive evaluation of different representations to address the intent classification problem in a Spoken Language Understanding (SLU) setup. We benchmark three types of systems to perform the SLU intent detection task: 1) text-based, 2) lattice-based, and a novel 3) multimodal approach. Our work provides a comprehensive analysis of what could be the achievable performance of different state-of-the-art SLU systems under different circumstances, e.g., automatically- vs. manually-generated transcripts. We evaluate the systems on the publicly available SLURP spoken language resource corpus. Our results indicate that using richer forms of Automatic Speech Recognition (ASR) outputs allows SLU systems to improve in comparison to the 1-best setup (4% relative improvement). However, crossmodal approaches, i.e., learning from acoustic and text embeddings, obtains performance similar to the oracle setup, and a relative improvement of 18% over the 1-best configuration. Thus, crossmodal architectures represent a good alternative to overcome the limitations of working purely automatically generated textual data.

Proteins play a central role in biology from immune recognition to brain activity. While major advances in machine learning have improved our ability to predict protein structure from sequence, determining protein function from structure remains a major challenge. Here, we introduce Holographic Convolutional Neural Network (H-CNN) for proteins, which is a physically motivated machine learning approach to model amino acid preferences in protein structures. H-CNN reflects physical interactions in a protein structure and recapitulates the functional information stored in evolutionary data. H-CNN accurately predicts the impact of mutations on protein function, including stability and binding of protein complexes. Our interpretable computational model for protein structure-function maps could guide design of novel proteins with desired function.

本文介绍了一个数据集，用于培训和评估方法，以估算由标准RGB摄像机捕获的任务演示中手持工具的6D姿势。尽管6D姿势估计方法取得了重大进展，但它们的性能通常受到严重遮挡的对象的限制，这在模仿学习中是一个常见的情况，而操纵手通常会部分遮住对象。当前，缺乏数据集可以使这些条件的稳健6D姿势估计方法开发。为了克服这个问题，我们收集了一个新的数据集（IMITROB），该数据集针对模仿学习和其他人类持有工具并执行任务的其他应用中的6D姿势估计。该数据集包含三个不同工具和六个操纵任务的图像序列，这些任务具有两个相机观点，四个人类受试者和左/右手。每个图像都伴随着由HTC Vive运动跟踪设备获得的6D对象姿势的准确地面真相测量。通过训练和评估各种设置中的最新6D对象估计方法（DOPE）来证明数据集的使用。数据集和代码可在http://imitrob.ciirc.cvut.cz/imitrobdataset.php上公开获得。

我们介绍了概率等级和奖励模型（PRR），这是一个可扩展的概率模型，用于个性化的Slate建议。我们的模型允许在以下无处不在的推荐系统方案中对用户兴趣的最新估计：向用户显示了k个建议的板岩，用户最多可以选择这些K项目中的一个。推荐系统的目标是找到用户最感兴趣的K项目，以最大程度地提高用户与Slate交互的可能性。我们的贡献是表明，我们可以通过结合奖励（无论是否单击板岩，以及等级）而更有效地学习建议成功的可能性。我们的方法比仅使用奖励和仅使用等级的用户偏好方法的盗销方法更有效地学习。它还提供了与独立的逆点分数方法相似或更好的估计性能，并且更可扩展。我们的方法是在大量数据集中的速度和准确性方面的最高速度，最多100万个项目。最后，我们的方法允许快速交付由最大内部产品搜索（MIPS）提供动力的建议，使其适用于极低的延迟域，例如计算广告。

永久增加的车载汽车控制系统需要新的数字映射方法，该方法可以从适应性和鲁棒性方面提高功能，并使其更容易的在线软件更新。从许多最近的研究中可以得出结论，应用神经网络（NN）的各种方法可以是汽车控制系统设计中相关数字双（DT）工具的良好候选者，例如，用于控制器参数化和状态监测。但是，基于NN的DT对用于培训和设计的足够数据有很大的要求。在这方面，本文提出了一种方法，该方法演示了如何通过在DT框架内的半活性减震器建模来有效地处理回归任务。该方法基于时间序列增强技术的适应，以增加后者的差异。这样的解决方案提供了详细的数据工程方法的背景，以进行复杂数据库的数据准备。

生命的起源被神秘笼罩着，几乎没有生存线索，被进化竞争所掩盖。先前的评论涉及自上而下和自下而上的合成生物学的互补方法，以增强我们对生活系统的理解。在这里，我们指出这些领域之间的协同作用，尤其是自下而上的合成生物学和生命研究起源之间。我们探讨了与拥挤的细胞，其新陈代谢以及生长和分裂周期以及如何开始合并这些努力的人造细胞隔室取得的最新进展。尽管当前生活的复杂性是其最引人注目的特征之一，但人生的基本特征都不需要它，而且它们从一开始就不太可能出现因此而变得复杂。当前的研究不是通过恢复一个真正的起源而恢复真正的起源，而是通过挑出一组基本组成部分可能产生的复杂性和进化而融合了最小生命的出现。

用于图形分类的分布外检测的问题远未解决。现有模型往往对OOD示例过高自信，或者完全忽略检测任务。在这项工作中，我们从不确定性估计的角度考虑了这个问题，并进行了几种最近提出的方法的比较。在我们的实验中，我们发现没有通用的OOD检测方法，并且重要的是考虑图表和预测分类分布。

我们研究了基于数据的多模型线性推理（软）传感器的问题。多模型线性推论传感器有望提高预测准确性，但模型结构和训练的简单性。多模型推断传感器设计的标准方法由三个单独的步骤组成：1）数据标记（建立单个模型的培训子集），2）数据分类（为模型创建切换逻辑），3）楷模。这个概念有两个主要问题：a）作为步骤2）和3）是单独的，在模型之间切换时可能会发生不连续性； b）作为步骤1）和3）是独立的，数据标记无视所得模型的质量。我们的贡献旨在提到这两个问题，在其中，对于问题a），我们引入了一种新型的基于SVM的模型训练，再加上切换逻辑识别，并且对于问题b），我们建议对数据标记进行直接优化。我们在化学工程领域的一个例子中说明了提出的方法及其好处。